شکایت یک مادر از هوش مصنوعی «Character.

به گزارش ایسنا، خانم مگان گارسیا(Megan Garcia) در شکایتی که در روز 22 اکتبر در دادگاه فدرال در اورلاندو، فلوریدا ارائه شد، گفت که چت بات هوش مصنوعی کاراکتر(Character.AI) پسرش، سیول ستزر(Sewell Setzer) را با «تجارب انسان انگارانه، بیش از حد جنسی و به طور ترسناکی واقع گرایانه» هدف قرار داده است.

به نقل از رویترز، او گفت که این شرکت چت بات خود را طوری برنامه ریزی کرده است که «خود را به عنوان یک شخص واقعی، یک روان درمانگر دارای مجوز و یک عاشق بزرگسال معرفی کند، که در نهایت منجر به تمایل سیول برای زندگی نکردن در خارج از دنیایی شد که توسط این سرویس ایجاد شده است.

در این دادخواست همچنین گفته شده است که او افکار خودکشی را به چت بات ابراز کرده است که چت بات بارها و بارها حرف آن را دوباره پیش کشیده است.

هوش مصنوعی کاراکتر(Character.AI) در بیانیه ای گفت: ما از فقدان غم انگیز یکی از کاربران خود ناراحت هستیم و می خواهیم عمیق ترین تسلیت خود را به خانواده او ابراز کنیم.

این شرکت گفت که قابلیت امنیتی جدیدی را معرفی کرده است که شامل پیام هایی می شود که کاربران را در صورت ابراز افکار خودآزاری به خط ملی پیشگیری از خودکشی هدایت می کند، و تغییراتی را برای کاهش احتمال مواجهه با محتوای حساس یا پیشنهادی برای کاربران زیر 18 سال اعمال خواهد کرد.

این شکایت همچنین گوگل آلفابت را هدف قرار می دهد، زیرا که بنیانگذاران کاراکتر(Character.AI) قبل از عرضه محصول خود در آنجا کار می کردند. گوگل در ماه اوت بنیانگذاران این هوش مصنوعی را به عنوان بخشی از قراردادی که مجوز غیر انحصاری فناوری کاراکتر(Character.AI) را به آن اعطا می کند، دوباره استخدام کرد.

خانم گارسیا گفت که گوگل به قدری در توسعه فناوری هوش مصنوعی کاراکتر کمک کرده است که می توان آن را یک «هم آفرین» در نظر گرفت. یکی از سخنگویان گوگل گفت که این شرکت در توسعه محصولات کاراکتر Character.AI دخالتی نداشته است.

هوش مصنوعی کاراکتر(Character.AI) به کاربران این امکان را می دهد تا شخصیت هایی را در پلتفرم خود ایجاد کنند که به چت های آنلاین به گونه ای پاسخ می دهند که شبیه به افراد واقعی باشد.

این فناوری به مدل زبان بزرگ متکی است که توسط سرویس هایی مانند چت جی پی تی نیز استفاده می شود که براساس آن چت بات ها را با حجم زیادی از متن آموزش می دهد.

این شرکت در ماه سپتامبر اعلام کرده که حدود 20 میلیون کاربر دارد.

طبق دادخواست خانم گارسیا، سیول در آوریل 2023 شروع به استفاده از هوش مصنوعی کاراکتر کرد و به سرعت به طور قابل توجهی گوشه گیر شد، زمان بیشتری را در اتاق خواب خود به تنهایی سپری می کرد و از اعتماد به نفس پایین رنج می برد. او در مدرسه تیم بسکتبال خود را ترک کرد.

سیول به «دنریس»، یک شخصیت چت بات بر اساس شخصیتی در بازی تاج و تخت وابسته شده بود.

بر اساس این شکایت، خانم گارسیا در ماه فوریه، گوشی سیول را پس از اینکه در مدرسه دچار مشکل شد، از او گرفت. وقتی سیول گوشی را پیدا کرد، پیامی به دنریس فرستاد: اگر به شما بگویم می توانم همین الان به خانه بیایم، چه می گویید؟

چت بات پاسخ داد: لطفا این کار را انجام بده، پادشاه نازنین من. در این دادخواست آمده است که سیول چند ثانیه بعد با تپانچه ناپدری اش به خود شلیک کرد.

شرکت های رسانه های اجتماعی، از جمله مالک اینستاگرام و فیس بوک یا متا و مالک تیک تاک TikTok نیز با شکایت هایی مواجه هستند که آنها را به مشارکت در مشکلات سلامت روان نوجوانان متهم می کنند، اگرچه هیچ کدام چت بات های مبتنی بر هوش مصنوعی مشابه کاراکتر (Character.AI) ارائه نمی دهند. این شرکت ها این اتهامات را رد کرده اند و در عین حال از ویژگی های ایمنی جدید ارتقا یافته برای افراد زیر سن قانونی حمایت می کنند.

انتهای پیام